Local dendritic balance enables learning of efficient representations in networks of spiking neurons | PNAS (2021)
Fabian A. Mikulasch, Lucas Rudelt, and Viola Priesemann
https://doi.org/10.1073/pnas.2021925118
神経回路は外界からの複雑な入力を神経細胞の活動で表現する必要がある
(representation learning )
これはヘブの学習則(Hebbian Learning)からどのように実現されるのか?
興奮と抑制が適切なバランス(Tight detailed E-I balance)に保たれた神経回路であれば、効率よく行うことができることが知られてる。
Efficient coding
モデルは、feedforwardの外界からの入力と回帰(Recurrency)による入力からなるSpikingNeuralNetwork; SNN
各細胞はLeaky Integrated Fired; LIFでスパイクを発生する。
このRNNが入力の表現を学習すると、膜電位(membrane potential)はエンコーディングエラーを表すようになる。
これは以下のメカニズムによる
ある限られた細胞の発火のみが入力を表す
抑制性結合によってこの入力に対する他の細胞の活動が抑えられる
しかし、入力を上手く表現できなかった場合は入力に対する多数の活動を抑えることができない。(エンコーディングエラー)
Naa_tsure.iconJeff Hawkinsはこれを予測誤差(Prediction Errors)に当てはめてたような
Naa_tsure.iconボトムアップ(Bottom-Up)の入力なしに特定の細胞が活動するか?
Naa_tsure.iconRNNに軌道を学習させると、初期値を与えたら勝手にアトラクター(Attractor)をなぞるようになるアレを思い出す
Naa_tsure.icon0からつくる Recurrent Neural Network
樹状突起(Dendrite)